تأسس الجيش النظامي للمملكة المتوكلية في 1919، وبدأ تأسيس الجيش الجمهوري في الجمهورية العربية اليمنية عام 1962 وذلك بقيام ثورة 26 سبتمبر أما جيش دولة الجنوب جمهورية اليمن الديمقراطية الشعبية فقد تأسس الجيش الاتحادي في 1959 قبل قيام ثورة 14 أكتوبر والاستقلال بعدة سنوات، تعثر دمج الجيشين فعلياً بعد قيام الوحدة اليمنية 1990 لأسباب سياسية، وبعد حرب صيف 1994 الأهلية، توحد الموالون للوحدة ضد الموالين للانفصال ولم يعد هناك جيشان بعد ذلك .